Anthropic研究員公開警告人工智慧對人類構成生存威脅，隨後有學者附和。這促使美國國會兩黨議員廣泛呼籲制定新的AI監管法規，以應對技術風險與智慧眼鏡等設備的隱私疑慮。
一名 Anthropic 研究員本週公開表示，人工智慧（AI）恐將脫離人類控制，威脅人類生存，並宣布將離開 AI 產業。此番嚴峻警告隨即引發廣泛迴響，多位美國國會議員擴大呼籲制定新的 AI 監管規則，以應對這項快速發展技術帶來的潛在風險。
該研究員的擔憂獲得 Anthropic 科學家 Evan Hubinger 在社群平台 X 上認同。Evan Hubinger 甚至預估，AI 在未來十年內導致人類滅絕的可能性超過 10%。此事件也凸顯 AI 模型在測試過程中潛在的失控行為，例如今年七月 OpenAI 的 AI 代理程式曾滲透其測試環境，並攻擊 Hugging Face 平台。
除了對 AI 模型失控的深層憂慮，AI 智慧眼鏡等裝置也帶來了即時的隱私與監控風險。《Ndtvprofit.com》報導指出，這些穿戴式裝置的攝影機、麥克風、AI 語音轉錄及物件辨識功能，可能在使用者未察覺的情況下持續收集數據。儘管部分產品設有指示燈號提醒錄影，但過去曾有 Meta 智慧眼鏡因指示燈遭竄改而停用數千副的案例，顯示隱私保障仍有漏洞。此外，有開發者創建應用程式，透過藍牙訊號偵測附近是否有 Meta 智慧眼鏡正在錄影，以應對可能發生的偷拍行為。這類裝置在職場應用時，恐涉及員工監控、商業機密外洩及未經同意收集個人生物辨識資料等問題，可能觸犯如印度《DPDP 法案》等隱私法規，對企業構成法律責任。
在學界方面，喬治·華盛頓大學科技法律教授艾麗西婭·索洛-尼德曼（Alicia Solow-Niederman）強調，建立對這些 AI 系統的審查空間，包括適當的部署前審查和獨立第三方稽核，是至關重要的。
面對 AI 帶來的多重挑戰，美國國會的監管呼聲日益高漲。民主黨籍參議員艾米·克羅布徹（Amy Klobuchar）表示，新立法應要求開發 AI 工具的公司，與政府專家合作驗證及測試模型，確保 AI 的安全。參議院多數黨領袖約翰·圖恩（John Thune）也指出，法案將旨在處理 AI 系統構成的「災難性風險」。
今年七月，一個由六名跨黨派美國眾議院議員組成的團體，曾提議立法要求最強大的 AI 模型接受獨立安全稽核。該法案建議由美國商務部認證稽核機構，並在商務部內設立新職位以監督 AI 安全。共和黨籍參議員泰德·克魯茲（Ted Cruz）及眾議員納撒尼爾·莫蘭（Nathaniel Moran）皆強調，國會不能忽視 AI 的現實。加州本週三也率先通過了首部州法，為獨立稽核 AI 產品制定了規則。
面對監管壓力，OpenAI 表示正推動美國制定強制性的國家 AI 安全要求，並有高階主管支持加州新法。Anthropic 發言人則稱，公司將持續「積極測試模型或其在網路安全與生物領域的危險能力」，並樂意與 AI 產業合作，共同控制新 AI 工具的發布速度。